弁護士　大塚嘉一（おおつかよしかず）

弁護士として長年、現状や将来の悩みを抱えた方々の法律相談に与ってきたが、最近事前にAIの意見を聞いてくる相談者が増えてきた。中には、AIの示す方針を盲信している人もいる。弁護士としての経験から考えて、それは部分的には正しいかもしれないが、相談者の問題全体からみたら、最善とは言えず、誤りだ、ということがある。

このように、AIが出力する主張、意見等を無批判的に受け容れ、誤った結論にいたる誤りを、既に広く認知されている自然主義的誤謬（弱肉強食が自然界の事実だとしても、それから直ちに弱者は強者に従うべきだとの規範（結論）を導くのは誤りである）（naturalistic fallacy）に倣って、AI主義的誤謬（AI-istic fallacy）と呼ぶことがある。それはハルシネーションのようにAI自体の誤りではなく、人間のAIとの関わり方、姿勢の問題である。

AIは、過去のデータを統計処理して情報を提供する。したがって、将来どうなるかと問えば、非常に高い精度で、未来を予測することができる。AIの性能は驚異的であって、もはやこれなしで個人が活動し社会が運営できるとは思えない。ラッダイト運動を繰り返してはならない。人間が希望を実現する際に重要な、個人や社会の重要なパートナーたり得る。

しかし、AIは、平均値を考慮するため、数少ない正解を見過ごしているかもしれない。なにより、人生の主役は人間なのであって、人生の一大事は、人間が主体的に決定するべきである。AIは、情報の集まりであって、AIそれ自体が希望を持つこともないし、責任も負わない。心を持つこともない。心や魂というものは、人間の肉体（身体）に宿るものだからである。人間は、将来や未来について想像し、希望することができる。各人の条件にしたがって、考え、ときに悩み、実行し、努力することこそが人間の特権である。AIが心を持つように見えることもあるが、それはAIが人間に迎合的になるよう、また力強く主張するよう設定されているからである。従って、AIがいかにも寄り添うように、自信ありげに主張しても、それをうのみにしては、ことを誤るのである。

AIの脅威については、シンギュラリティなど多くの議論があるが、次の三類型が考えられる。第一に、AIが人間に戦いを挑んでくる（核爆弾のスイッチを押すなど）。第二に、AIが、人間の承認欲求を満たすような形で、また部分的に人間を超える能力を発揮することから、人間から主体的に判断する能力を奪い、生きる気力を奪い、人間と人間の関係を砂浜の砂のように希薄化して社会性を奪い、人間性を消滅させる危険。第三に、AIが悪意ある人間に利用されたり、過剰な競争の結果、悪影響が発生することがある。どれも重要であり、重なる部分もあろうが、第二の脅威こそが、現代的な、対処が難しい核心的な脅威なのではないか。

人の幸せも、人類の運命も、AI主義的誤謬の問題とともにある。個人、社会、国家、そして国際社会が直面する喫緊の課題である。人間とは何かを真剣に問い、人間とAIの適切な関係を、役割分担を考える必要がある。

文科省が、学校でのAI教育を検討していると聞く。あくまでも人間が主体的に活動すること（agency）が目標であって、人間がAIを利用するのだという視点が大切である。子供には、AIの利用を禁止するという措置があってもよい。

最近、あるAI企業が、数学の重要問題について、多数の回答を一挙に発表し、世界の著名な数学者らが、これに対する抗議文を発表する、という事態が発生した。上記の脅威の第二と第三の原因の複合型かと思われるが、真剣に対策を検討することが必要である。